เมื่อทราบข่าวการลอบสังหารโอดะ โนบูนางะแล้ว ฮิเดโยชิจึงรีบเจรจาสงบศึกกับตระกูลโมริ และยกทัพมาจากภูมิภาคชูโงะกุอย่างรวดเร็วมาสู่เมืองเกียวโตโดยใช้เวลาเพียงสองสัปดาห์ เพื่อแก้แค้นให้แก่นายของตน โดยสามารถเอาชนะอาเกจิ มิตสึฮิเดะได้ในยุทธการยามาซากิ (山崎の戦い) มิตสึฮิเดะเสียชีวิตในที่รบ

ในฐานะผู้ที่สามารถแก้แค้นให้แก่โอดะ โนบูนางะได้สำเร็จ ทำให้ฮิเดโยชิได้รับการยกย่องและขึ้นมามีอำนาจในตระกูลโอดะ เมื่อโนบูนางะถูกลอบสังหารไปแล้ว โอดะ โนบูกัตสึ (織田信雄) บุตรชายคนที่สองของโนบูนางะ และโอดะ โนบูตากะ (織田信孝) บุตรชายคนที่สาม ได้แข่งขันกันเพื่อที่จะเป็นผู้สืบทอดตระกูลโอดะ ฮิเดโยชิจึงจัดการประชุมที่ปราสาทคิโยะสุ (清洲) ในแคว้นโอวาริ เพื่อตกลงหาผู้สืบทอดตระกูลโอดะ ด้วยความเห็นชอบจากขุนพลอาวุโสเช่น นิวะ นางาฮิเดะ ฮิเดโยชิจึงประกาศว่าให้ซัมโปชิ (三法師) หรือต่อมาคือ โอดะ ฮิเดโนบุ (織田秀信) บุตรชายของโอดะ โนบูตาดะ หลานชายของโนบูนางะซึ่งมีอายุเพียงสองขวบ เป็นผู้สืบทอดตระกูลโอดะต่อมา การตัดสินใจในครั้งนี้ เป็นที่ต่อต้านอย่างมากจากขุนพลคนอื่นๆ ของตระกูลโอดะ โดยเฉพาะชิบาตะ คัตสึอิเอะ ผู้ซึ่งเห็นว่าการที่ฮิเดโยชิให้เด็กสองขวบขึ้นมาปกครองตระกูลโอดะนั้น ก็เพื่อที่จะเป็นหุ่นเชิดแก่ตนในการเข้ายึดอำนาจในตระกูลโอดะ

ขุนพลตระกูลโอดะเริ่มที่จะแบ่งออกเป็นสองฝ่าย คือฝ่ายที่สนับสนุนฮิเดโยชิ และฝ่ายที่ต่อต้านฮิเดโยชิ นำโดยชิบาตะ คัตสึอิเอะ ใน ค.ศ. 1583 ฮิเดโยชิจึงต้องทำสงครามกับชิบาตะ คัตสึอิเอะ โดยนำกำลังเข้าบุกแคว้นเอะจิเซ็ง (越前) ซึ่งคัตสึอิเอะปกครองอยู่ จังหวัดฟุกุอิในปัจจุบัน และเอาชนะคัตสึอิเอะในยุทธการชิซุงะตะเกะ (賤ヶ岳の戦い) และเข้ายึดปราสาทคิตะโนะโช (北圧城) อันเป็นฐานที่มั่นของคัตสึอิเอะได้สำเร็จ คัตสึอิเอะจึงทำเซ็ปปุกุเสียชีวิตไปพร้อมกับนางอิจิภรรยา (น้องสาวของโอดะ โนบูนางะ) ฮิเดโยชิจึงรับเอาบุตรสาวทั้งสามของนางอิจิมาเป็นบุตรบุญธรรม

เมื่อกำจัดชิบาตะ คัตสึอิเอะ ออกไปได้สำเร็จแล้ว ปรากฏว่าโอดะ โนะบุคัตสึ ได้ร้องขอให้โทกูงาวะ อิเอยาซุ ไดเมียวแห่งแคว้นมิกาวะ ช่วยเหลือให้ตนได้ขึ้นครองตระกูลโอดะ ฮาชิบะ ฮิเดโยชิ และ โทกูงาวะ อิเอยาซุ สองผู้ปกครองญี่ปุ่นในอนาคต จึงต้องทำสงครามกัน ในยุทธการที่โคะมะกิและนะงะกุเตะ (小牧・長久手の戦い) ในค.ศ. 1584 ปรากฏว่าไม่สามารถเอาชนะกันได้ จนต้องเจรจาสงบศึก โดยฮิเดโยชิได้ส่งน้องสาวต่างมารดาของตน คือนางอะซะฮี ไปเป็นภรรยาเอกของอิเอยาซุ และส่งมารดาของตนคือนางนะกะ ไปเป็นตัวประกันที่แคว้นมิกาวะ